יעקב שרצקי נולד בשנת 1926 בעיירה זלובּ שבפולין, בנם של מאיר גרשון שהיה חסיד גור ושל טובה גיטל, אח לשלושה אחים הצעירים ממנו: שתי אחיות- בלה- מלכה ואלה הנדל ואח- משה שלום. עד גיל 10 גדל בפולין ובשנת 1936 עלה עם משפחתו ארצה והשתקע עמם בירושלים. שם למד יעקב בישיבה "תפארת צבי", אך מהר מאוד נאלץ בשל המצב הכלכלי הקשה של משפחתו לעזוב את הלימודים ולעבוד בעבודות מזדמנות. כמו כן, היה חבר במשך שנתיים בתנועת הנוער "ברית החשמונאים", שהיתה תנועת נוער דתית- לאומית.
בשנת 1940 התגייס לאצ"ל. בעוד אחרים העדיפו להצטרף לארגון הלח"י, יעקב העדיף להצטרף לארגון האצ"ל כיוון שהארגון נלחם נגד פרויקטים של השלטון הבריטי בארץ, ואילו הלח"י נלחם במטרה להרוג.
בשנת 1944 החל האצ"ל לפעול נגד השלטון הבריטי בארץ. מיד עם הצטרפותו לאצ"ל, זכה יעקב להיכנס ליחידת חו"ק- חיל קרב. לאחר מכן, הועבר ליחידת י"ם- יחידות מחץ, ועם הזמן התקבל לקורס מפקדים, סיים את הקורס בהצלחה ונעשה מפקד- ראש קבוצה באצ"ל. כינויו של יעקב במחתרת היה אסא.
במסגרת שירותו, השתתף יעקב בפעולות משמעותיות רבות. הפעולה הראשונה שבה השתתף יעקב היתה פיצוץ המשטרה במגרש הרוסים ב- 23.3.1944. זו היתה גם הפעולה הראשונה שבה נלחם האצ"ל פנים אל פנים מול הבריטים. כאשר יצאו יעקב וחבריו לפעולה זו הם לא היו בעלי נסיון , ולכן לא היו מאורגנים כראוי.
הפעולה השניה בה השתתף יעקב היתה פיצוץ מטה הבולשת ברחוב ממילא ב - 13.7.1944. בפעולה זו היו שלושה שפרצו פנימה. אחד מהם היה יעקב. באותה העת, בעקבות פעולה זו, הבינו בני משפחתו של יעקב שהוא חבר בארגון האצ"ל- דבר שאותו שמר בסוד.
הפעולה השלישית שבה השתתף יעקב היא החרמת חומר נפץ ממחצבה בדרך ירושלים- תל אביב.
אלה הן רק שלוש פעולות עיקריות מתוך פעולות נוספות רבות אשר בהן השתתף.
כידוע, הבריטים לא הרשו לתקוע בשופר בכותל. האצ"ל לקח על עצמו את התקיעה הגדולה שבסוף תפילת הנעילה. בשנת 1944 תקע יעקב בשופר,אך התמזל מזלו ובשנה שבה הוא תקע, לא הצליחו הבריטים לעצור אף אחד.
בשל המצב הכלכלי הקשה בבית, עבד יעקב במקביל לשירותו באצ"ל, לעיתים היה מגיע מפעולה באחת בלילה וכבר בשעה שלוש לפנות בוקר היה יוצא לעבודה.
בשנת 1944 הכריזה ההגנה על ה"סזון" (עונת הציד), כלומר על הסגרת אנשי האצ"ל והלח"י לשלטונות הבריטים. בתקופה זו הלשינו על יעקב שהיה עדיין חבר באצ"ל, אך זה קיבל הוראה חד משמעית לשמור על איפוק. בעקבות ההלשנה, עבר יעקב לטבריה וצפת- שם הסתתר מספר חודשים. לאחר מכן, חזר לירושלים.
בשנת 1944 בחג הסוכות, נעצר יעקב על ידי הבריטים. יעקב ועוד מישהו ששירת עימו באצ"ל נלקחו למעצר בקישלה בעיר העתיקה. הקישלה שהיה אולם גדול שבו הוחזקו אסירים מכל הסוגים היה מקום מאוד מלוכלך, ללא מיטות, על הקירות בו זחלו כינים ופשפשים. יעקב לא יכל לסבול את תנאי המחיה הנוראיים, לא הצליח לישון במשך שני לילות, אך לבסוף נכנע בלית ברירה. המעצר נמשך כחצי שנה. במשך חצי השנה הזו ישב יעקב במספר בתי סוהר למשך פרקי זמן קצרים. במשך שהותו במעצר, זכה יעקב לביקורו המרגש של רב בתי הסוהר- הרב אריה לוין זצ"ל. הרב אריה לוין זצ"ל הביא עימו ליעקב באופן אישי דרישת שלום חמה מהבית. בין בתי הסוהר בהם ישב, היה גם מחנה מעצר לטרון אשר מתוכו אספו קבוצה והטיסו אותה לגולה- לאפריקה, שם שהה יעקב כארבע שנים.
במהלך שהותו באפריקה, הועבר יעקב ממקום למקום על מנת להקשות על יצירת קשרים ועל הכרת תנאי הסביבה. הוא היה בסודן, באריתריאה ולבסוף בקניה. בחודש יולי 1948, קיבלו יעקב וחבריו למחנה הודעה על שחרור וחזרה לארץ, וב- 12 ביולי 1948 הם הגיעו לחופי הארץ, לנמל תל אביב.
לאחר תקופת התאקלמות קצרה מאוד בארץ, התגייס יעקב לאצ"ל בפעם השניה. כעבור זמן מה, כאשר התפרק הארגון, הצטרף יעקב לצה"ל ושירת ביחידת השריון. השירות של יעקב בצה"ל היה קצר יחסית כיוון שבאותה תקופה אפשרו לשבויים שישבו במחנות באפריקה להשתחרר לפני הזמן.
בשנת 1952 עבד יעקב כסגן מנהל חשבונות בבנייני האומה, משם התקדם והפך להיות מנהל חשבונות ראשי, ולבסוף משנת 1976 ועד 1988 נהיה יעקב למנכ"ל בנייני האומה.
בשנת 1952, בהיותו בן 26 הכיר יעקב את אשתו זהבה, ונישא לה. ליעקב וזהבה חמישה ילדים, ציפורה-לאה ז"ל, ורדה, זיוה, זאב וישראל.
כיום, חי יעקב בירושלים, סבא לנכדים ולנינים. ביוני 2006 יצא לאור הספר "סיפור קטן מתוך סיפורים גדולים". הספר הינו תיעוד סיפור חייו של יעקב . הוא הוצא לאור במסגרת הפרוייקט "סיפורי חיים" בחסותו של האגף לשירותי בית וקהילה ביד שרה.